The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence — Stanford Digital Economy Lab

原典

現状の経済システムでAIのautomationが普及すると、AIに置き換えられない人の所に富集中するよね、と

また、knowledgeがデジタル化するのも流動性高めて富を集中させるよねと

When useful knowledge is inalienably locked in human brains, so too is the power it confers. But when it is made alienable, it enables greater concentration of decision-making and power.33

属人化を避ける方向性に進むと、富と権力の集中が進む

構造的な問題:

The risks of the Turing Trap are amplified because three groups of people—technologists, businesspeople, and policymakers—each find it alluring.

Technologists have sought to replicate human intelligence for decades to address the recurring challenge of what computers could not do. The invention of computers and the birth of the term “electronic brain” were the latest fuel for the ongoing battle between technologists and humanist philosophers.

この対立は確かにある

automationよりaugmentationええやんという考え方

https://gyazo.com/8d6add5b06e75e92c482701e46794454

社会は放置するとautomationに流れがちだけど、augmentationの方ができること多いし富の集中を防げるし良くない？という話

ここでいうaugmentationは別にagencyとかはそこまで大事ではなくて、人間が社会活動から省かれていないことが大事

安易にautomationをすると省かれてしまう

人間を社会活動から省くと、流動性が高まって富/権力の集中が起きるから良くないというロジック

augmentationというよりはcollaboration

その上で、どうしてこのままだとautomationに流れるのかという議論をしている

In sum, the risks of the Turing Trap are increased not by just one group in our society, but by the misaligned incentives of technologists, businesspeople, and policymakers.

まとめ

規範的議論

The first option offers the opportunity of growing and sharing the economic pie by augmenting the workforce with tools and platforms. The second option risks dividing the economic pie among an ever-smaller number of people by creating automation that displaces ever-more types of workers.

後者が良いよね、と

けどほっとくと前者に流れるtendencyがあって、Turing Trapに陥る

「人の仕事が奪われる」みたいなthen whatとなる主張で終わらず、そこから一段階進んで「能力の流動性が高まった結果富と権力の集中が進む」というところまで問題を追求している

「人とAIは共栄するべき」みたいな曖昧な主張ではなく、Augmentationの形に具体的に言及している

その上で、現状の社会構造では「良い未来」から外れるTendencyがあるということを明らかにする所まで議論している

総じて、こういう技術批判主張にありがちな曖昧さ/so what感が無いのがめちゃくちゃ好き